Vào ngày 5 tháng 9 năm 1972, nhóm khủng bố Palestine Black September đã xâm nhập vào khu vực cư ngụ của vân động viên Thế vận hội Mùa hè 1972 tại München, Tây Đức, để bắt 11 vận động viên người Do Thái làm con tin, giết 2 người tại đây. Sự cố này càng trở nên tai hại khi cảnh sát Đức, không được huấn luyện hay được trang bị cho những hoạt động chống khủng bố, đánh giá thấp số người trong nhóm khủng bố, tìm cách giải thoát các vận động viên này. Nhưng họ đã thất bại, đưa tới cái chết một cảnh sát viên, 9 người bị bắt làm con tin, 5 trong số 8 tên khủng bố.

Ngày 26 tháng 9 năm 1972, GSG 9 được thành lập. Ulrich Wegener, thượng tá trong ngành cảnh sát Biên phòng, được bộ trưởng Hans-Dietrich Genscher ủy nhiệm việc thành lập một đơn vị chống khủng bố. Tháng 4 năm 1973, Wegener loan báo là đã có được 2 đơn vị GSG 9 sẵn sàng chiến đấu.